Sau khi hoàn tất, Tàu ngầm số 44 nhập biên chế và được phân về Quân khu Hải quân Kure.[3] Từ ngày 17 tháng 7, 1924 đến ngày 1 tháng 5, 1925, nó được phối thuộc cùng Hải đội Tàu ngầm 2 trực thuộc Hạm đội 2, nằm trong thành phần Hạm đội Liên hợp;[3] vào lúc này nó được đổi tên thành I-51 vào ngày 1 tháng 11, 1924.[3] Nó quay trở lại phục vụ cùng Quân khu Hải quân Kure từ ngày 1 tháng 5 đến ngày 1 tháng 12 1925, khi nó cùng tàu ngầm I-52 nằm trong Đội tàu ngầm 17, Hải đội Tàu ngầm 2 trực thuộc Hạm đội 2 của Hạm đội Liên hợp.[3][4]

Đến ngày 10 tháng 12, 1928, Đội tàu ngầm 17 được điều về Quân khu Hải quân Kure,[3] và I-51 tiếp tục phục vụ cùng đơn vị này cho đến khi đội bị giải thể vào ngày 1 tháng 11, 1935.[3][4] Hoạt động không thành công trong đội hình hạm đội do gặp trục trặc động cơ diesel, I-51 không bao giờ được phái đi phục vụ cùng hạm đội sau năm 1928. Thay vào đó nó được giữ lại Xưởng vũ khí Hải quân Kure để huấn luyện thủy thủ đoàn và thử nghiệm nhiều kỹ thuật tàu ngầm mới.[3][4]

Vào tháng 5, 1929, I-51 bắt đầu thử nghiệm hoạt động trên tàu ngầm với chiếc Yokosho 2-Go, phiên bản nguyên mẫu của thủy phi cơ Yokosuka E6Y.[3][5] Nó hoàn tất thử nghiệm vào tháng 9, 1931.[6] Sau đó nó được trang bị một hầm chứa có thể chứa một thủy phi cơ, có thể vớt máy bay lên hay hạ xuống nước nhờ một cần trục, rồi nó bắt đầu thử nghiệm với một chiếc nguyên mẫu E6Y thứ hai, Yokosho 2-Go Kai.[5] Đến năm 1933, một máy phóng máy bay được lắp đặt trên boong tàu, khiến nó trở thành tiền thân của tàu sân bay ngầm Nhật Bản trong Thế Chiến II.

Ngoài hoạt động thử nghiệm, I-51 cũng tham gia huấn luyện tại căn cứ hải quân Kure.[3] Vào năm 1932, hai động cơ cùng trục chân vịt tương ứng bị tháo dỡ, cũng như là khẩu hải pháo trên boong tàu.[2] Sau khi Đội tàu ngầm 17 bị giải thể vào ngày 1 tháng 11, 1935,[4] I-51 được phối thuộc trực tiếp cùng Quân khu Hải quân Kure, và tiếp tục vai trò huấn luyện cho đến khi xuất biên chế và đưa về Dự bị hạng 4 vào ngày 15 tháng 12, 1938.[3] Đang khi trong thành phần Dự bị hạng 4, nó được điều sang Quân khu Hải quân Maizuru vào ngày 15 tháng 11, 1939.[3]

I-51 được rút tên khỏi danh sách Đăng bạ Hải quân vào ngày 1 tháng 4, 1940,[3] và lườn tàu bị bất hoạt được đổi tên thành Haikan số 3[3] hoặc Haisen số 3.[3] Nó bị bán để tháo dỡ vào năm 1941.[3]